量子位
05-08 22:00
Anthropic出手！AI的内心独白，曝光了
📌 一句话：Anthropic发布新技术，让AI的"内心独白"可视化，AI不再是个黑箱。
💡 3个要点
Anthropic推出"可解释性"功能，用户能看到AI每一步推理过程
这项技术基于对Claude内部激活模式的深入研究，非简单输出文本
透明度提升有望缓解公众对AI"不可控"的担忧，但隐私争议随之而来
📖 背景
Anthropic一直强调AI安全与可控，这次曝光AI思维过程，被视为其"负责任AI"理念的落地产品。
💭 点评
让AI"透明"是把双刃剑：一方面它能建立信任、帮助排查错误；另一方面，把AI的思考过程完全公开，可能被人用来"逆向工程"绕过安全限制。透明度≠安全性，Anthropic这一步迈得漂亮，但后续如何守住安全底线，才是真正的考验。
📖 原文链接
点击阅读原文 →